Vào năm 1953, North American Aviation bắt đầu một nghiên cứu riêng về một kiểu máy bay ném bom tầm xa hoạt động trong mọi thời tiết đặt căn cứ trên tàu sân bay, có khả năng phóng vũ khí nguyên tử ở tốc độ siêu thanh. Đề nghị này, khái niệm về một chiếc NAGPAW [1], được Hải quân Hoa Kỳ chấp nhận với một số sửa đổi, vào năm 1955. Một hợp đồng phát triển được ký vào ngày 29 tháng 8 năm 1956. Chuyến bay đầu tiên của kiểu máy bay này diễn ra hai năm sau đó vào ngày 31 tháng 8 năm 1958 tại Columbus, Ohio.

Vào lúc được giới thiệu, Vigilante là một trong những máy bay lớn nhất và phức tạp nhất từng hoạt động trên một tàu sân bay của Hải quân Hoa Kỳ. Nó có thiết kế kiểu cánh xuôi gắn cao cùng các cánh nắp phụ điều khiển được nhằm cải thiện lực nâng ở tốc độ thấp, sử dụng hợp kim nhôm-lithium che phủ bề mặt cánh và titanium cho những kết cấu quan trọng. Nó được trang bị hai động cơ turbo phản lực General Electric J79 (tương tự như được sử dụng trên chiếc máy bay tiêm kích F-4 Phantom II) đặt cách xa nhau, và một cánh đuôi đứng lớn. Cánh, đuôi, và mũi radar của chiếc máy bay có thể xếp được để chứa trên tàu sân bay. Chiếc Vigilante có một đội bay gồm hai người, phi công và sĩ quan ném bom/hoa tiêu (BN), sau này là sĩ quan trinh sát/hoa tiêu tấn công (RAN) trên các phiên bản trinh sát, được bố trí kiểu trước-sau trên những ghế phóng riêng biệt. Nó có đặc tính bay nhanh nhẹn đáng ngạc nhiên cho một chiếc máy bay to và nặng như thế. Khi không có các lực cản do bom hay tên lửa, ngay cả các phi công tiêm kích hộ tống cũng thấy rằng kiểu dáng khung máy bay suôn và động cơ mạnh mẽ giúp cho chiếc Vigilante có tốc độ rất nhanh ở tầm cao. Tuy nhiên, tốc độ hạ cánh cao làm cho việc quay về tàu sân bay đúng là một thử thách cho những phi công không có kinh nghiệm hay cẩu thả.

Chiếc Vigilante có một hệ thống điện tử cực kỳ tiên tiến và phức tạp. Nó được trang bị một trong những hệ thống bay bằng dây dẫn (fly-by-wire) đầu tiên trên một máy bay hoạt động (cùng với hệ thống dự phòng bằng cơ khí/thủy lực) và một hệ thống máy tính dẫn đường/tấn công AN/ASB-12 tích hợp một hệ thống hiển thị thông tin trước mặt (HUD: head-up display), radar đa chế độ, hệ thống dẫn đường quán tính trang bị Radar (REINS, dựa trên kỹ thuật được phát triển cho tên lửa Navaho), camera CCD TV dưới mũi, và một máy tính kỹ thuật số đời đầu được gọi là VERDAN (Phân tích Kỹ thuật số Linh hoạt) để điều khiển chúng. Cho dù hệ thống này cực kỳ tinh vi, kỹ thuật của nó vẫn còn ấu trĩ, và độ tin cậy rất kém. Khi hoạt động tại các phi đội, hệ thống có chỉ số MTBF (thời gian trung bình giữa hai lần hỏng hóc) chỉ được có 15 phút. Mặc dù một số lỗi đã được sửa, chiếc máy bay vẫn là một cơn ác mộng khi bảo trì trong suốt vòng đời hoạt động của nó.

Chiếc Vigilante nguyên thủy có hai đế cánh, được dự định chủ yếu dành cho các thùng nhiên liệu phụ vứt được. Vũ khí chính của nó được mang trong một "khoang bom dọc bên trong" mới hình trụ giữa hai động cơ, mang một "tàu chứa" gồm hai thùng nhiên liệu vứt được gắn với một vũ khí nguyên tử, thường là một trái bom nguyên tử Mk 28. Ý tưởng áp dụng là nhiên liệu trong các thùng chứa này sẽ được dùng hết trong quá trình bay đến mục tiêu, rồi sau đó chúng được vứt bỏ như là một phần của trái bom bằng chất nổ trong súng hình phểu. Trong thực hành, hệ thống trên chưa bao giờ có độ tin cậy và thường gây nguy hiểm. "Tàu chứa" này đôi khi bị rơi ra trong lúc máy bay đang được phóng lên, bỏ lại vũ khí và các thùng nhiên liệu trên sàn đáp. Nó cũng có xu hướng bị "kéo lê" đàng sau chiếc máy bay khi đang bay. Ngay cả trong quá trình phục vụ của chiếc Vigilante sau này, khi khoang này chỉ được dùng để chứa nhiên liệu, kiểu sắp xếp như vậy cũng có nhiều sự cố.

Phiên bản Vigilante thứ hai, chiếc A3J-2 (A-5B) bổ sung thêm các cánh nắp phụ trên mép trước cánh, bộ càng đáp nặng hơn, và một "gù lưng" dễ nhận thấy chứa các thùng nhiên liệu để bổ sung thêm 460 gallon nhiên liệu. Có thêm hai đế cánh được bổ sung thành tổng cộng bốn đế, cho dù trong thực tế chúng hiếm khi được sử dụng đến.

Phiên bản trinh sát của chiếc Vigilante, kiểu RA-5C, có diện tích cánh hơi lớn hơn và thêm một cụm dạng tàu ca nô dài bên dưới thân dành cho gói trinh sát đa cảm biến. Nó bổ sung thêm một radar SLAR APD-7, bộ quét hồng ngoại AAS-21, và các gói máy ảnh cũng như bộ phản công điện tử (ECM) được cải tiến. Nó cũng có thể mang một bộ tình báo điện tử AN/ALQ-61. Chiếc RA-5C vẫn giữ lại hệ thống ném bom AN/ASB-12, nên về mặt lý thuyết nó có thể mang vũ khí, cho dù nó chưa bao giờ sử dụng trong thực tế. Những chiếc RA-5C được chế tạo sau này được trang bị động cơ mạnh hơn J79-10 với lực đẩy có đốt sau là 17.900 lbf (80 kN). Phiên bản Vigilante trinh sát nặng hơn gần năm tấn so với phiên bản tấn công với cùng một lực đẩy và diện tích cánh chỉ hơi lớn hơn. Những thay đổi này đã làm giảm gia tốc và tốc độ lên cao, cho dù nó vẫn còn nhanh khi bay ngang.